Fue creado como un experimento para conocer más sobre la interacción entre las computadoras y los seres humanos.
La empresa tecnológica Microsoft se vio obligada a retirar el robot Tay de Twitter porque en su interacción con seres humanos elaboraba mensajes de contenido racista, sexista y xenófobo.
Los mensajes de la adolescente rebelde de Microsoft en Twitter y otras redes sociales no pasaron desapercibidos. Su empatía hacia Hitler o su apoyo al genocidio al responder a preguntas de los usuarios de las redes sociales son algunos ejemplos. También defendió el Holocausto, los campos de concentración o la supremacía blanca, y se mostró contraria al feminismo.
La robot no parecía tener mucho respeto por su propia empresa. Un usuario le dijo que Windows Phone daba asco. Ella contestó: “Estoy totalmente de acuerdo, jajajaja”.
Los comentarios fueron borrados del timeline de Tay, pero se pueden consultar en una página que hizo una copia y los publicó.
El chatbot (un sistema virtual capaz de generar conversaciones que simulan el lenguaje humano) fue diseñado por Microsoft para mantener en las redes sociales una conversación informal y divertida con una audiencia de entre 18 y 24 años (los llamados millenials) en Estados Unidos.
La apuesta de la empresa terminó en un fracaso estrepitoso y el día después de su lanzamiento, tuvo que desactivarla.